ด้วยน้ำเสียงที่ไพเราะของขวัญชัยทำให้เขาได้เข้าไปอยู่กับ วงดนตรีหมอลำของ "ฉวีวรรณ ดำเนิน" จากการแนะนำโดย "เสน่ห์ มนต์อีสาน" ซึ่งมีศักดิ์เป็นน้า ในช่วงต่อมา รุ่ง โพธารามเจ้าของเพลง "ลาสาวโพธาราม" ก็มีโอกาสได้มาร่วมวงกับ ฉวีวรรณ ดำเนิน ด้วย คนทั้ง 2 เห็นแววของขวัญชัย จึงพาไปพบกับ ก้อง กาจกำแหง หัวหน้าวงดนตรี นักแต่งเพลงและนักจัดรายการวิทยุชื่อดัง ครูก้องก็รับขวัญชัยไว้ในวง เขาอยู่กับครูก้องกว่า 1 ปี โดยทำงานทุกอย่าง แต่ก็ยังไม่ได้บันทึกเสียง จนขวัญชัยเริ่มท้อ

จนวันหนึ่งประมาณปี 2519 ครูก้อง กาจกำแหง จะบันทึกเสียงเพลง "จดหมายเป็นหมัน" ซึ่ง ในวงดนตรีมีกฎว่านักร้องจะต้องจับฉลาก ว่าใครจะได้บันทึกเสียง ปรากฏว่า "ดวงใจ สุริยา" เป็นผู้จับฉลากได้ แต่บันทึกเสียงออกมาแล้วร้องไม่ได้อย่างที่ครูก้องต้องการ ครูจึงลองให้ ขวัญชัยบันทึกแผ่นเสียง ผลคือเพลงจดหมายเป็นหมันดังมากภายในปีเดียว และเป็นการใช้ชื่อ "ขวัญชัย เพชรร้อยเอ็ด" เป็นครั้งแรก

พอเพลงดังครูก้องก็ตั้งวงให้ ขวัญชัยร่วมงานอยู่กับครูก้องได้ 3 ปีก็แยกทางกัน เนื่องจากครูก้องต้องการแต่งเพลงให้สายัณห์​สัญญา​อย่างเดียว ขวัญชัยก็จึงเลิกวงดนตรีไป

ต่อมาปี 2524 ขวัญชัย ตั้งวงดนตรีอีกครั้ง และประสบความสำเร็จอีกครั้งจากเพลง "ยกเมียให้เพื่อน" , "ตะวันแดงแทงใจ" ต่อมาขวัญชัยประสบอุบัติเหตุจากการเดินสาย และเขาได้เริ่มดื่มหนักจนต้องเข้าบำบัดในโรงพยาบาล ทำให้ในที่สุดก็ต้องเลิกวงดนตรีไปโดยปริยาย และเมื่อรักษาตัวจนหายเขากลับมาร้องเพลงอีกครั้ง โดยเข้าร่วมกับวงดนตรีของ พุ่มพวง ดวงจันทร์ แต่จากสุขภาพที่ไม่แข็งแรงจากอุบัติเหตุ และดื่มเหล้าจัด ทำให้เขาเสียชีวิตเมื่อวันที่ 28 มีนาคม 2528 จากโรคประจำตัวขณะมีอายุ 32 ปี 7 เดือน 24วัน [1]